Pederson inizialmente firmò coi free agent coi Miami Dolphins nel 1991 dalla Northeast Louisiana University a Monroe, Louisiana. Debuttò in campo solo nel 1993 quando prese il posto dell'infortunato Scott Mitchell in una gara contro i Philadelphia Eagles il 14 novembre 1993, contribuendo alla vittoria numero 325 della carriera dell'allenatore Don Shula.
Nel 1995, Pederson fu scelto dai Carolina Panthers nell'Expansion Draft NFL 1995 ma fu svincolato prima dell'inizio della stagione. Nel periodo 1996-1998, Pederson fu la riserva di Brett Favre ai Green Bay Packers, con cui vinse il Super Bowl XXXI[1]. Nel 1999 firmò coi Philadelphia Eagles per fungere da titolare temporaneo finché il quarterback rookieDonovan McNabb fosse stato pronto per prendere il suo posto. L'anno successivo, Pederson fu utilizzato nello stesso ruolo dai Cleveland Browns per il loro quarterback al secondo anno, Tim Couch. Nel 2001, Pederson tornò a Green Bay, con cui rimase nel ruolo di riserva fino al suo ritiro dopo la stagione 2004.
Il 18 gennaio 2016, Pederson fu assunto come capo-allenatore dei Philadelphia Eagles[2]. L'anno successivo guidò la squadra alla prima vittoria del Super Bowl della sua storia battendo i New England Patriots nel Super Bowl LII per 41-33.[3] Fu licenziato dopo la stagione 2020.
Nel 2022 Pederson venne assunto come capo-allenatore dei Jacksonville Jaguars. Alla sua prima stagione con la franchigia vinse con un record di 9-8 la AFC South division, qualificandosi ai playoff.